Коневская икона Божией Матери была принесена со Святого Афона преподобным Арсением, Коневским чудотворцем, в 1393 году. Преподобный Арсений провел три года на Афоне, достойно подвизаясь в подвигах поста и молитвы.

По истечении этого срока он решил возвратиться в родной Новгород, чтобы возродить там древние традиции афонского иночества. Игумен одного из афонских монастырей преподобный Иоанн Зидон, напутствуя своего любимого ученика, благословил преподобного Арсения в дорогу чудотворной иконой Божией Матери и предсказал ему, что он будет игуменом новоявленной обители.

С самого начала своих иноческих подвигов на Коневском острове преподобный Арсений постоянно чувствовал благодатную помощь, исходившую от святой иконы.
Свидетельством этому является следующее событие. Языческое население этого острова суеверно поклонялось огромному каменному идолу — «конь-камню». Преподобный Арсений с чудотворным образом Богоматери совершил крестный ход вокруг этого камня и, сотворив усердную молитву, изгнал целое скопище бесов, которые, приняв вид воронов, улетели на Выборгский берег. С тех пор «конь-камень» стал символом победы христианства над язычеством в этих местах, а икона получила название Коневской.

Коневская святыня находилась во Введенском храме обители до 1940 года, когда в связи с военными событиями монастырь эвакуировался, братия Коневского монастыря поселилась на ферме Хиекка в местечке Кейтеле. Сюда же привезли и икону Божией Матери.
На поклонение иконе приходили сотни православных финнов. В 1956 году несколько оставшихся в живых монахов Коневского монастыря переехали в Хеинавеси, в монастырь Новый Валаам. В 1963 году Коневский монастырь был расформирован, Коневскую святыню отправили в Хельсинки, а в 1969 году — в Москву на реставрацию. Через год икона вернулась в Новый Валаам, где находится и ныне.